样式是自然语言文本的重要组成部分，反映了文本语调的变化，同时保持基础信息相同。即使编程语言具有严格的语法规则，它们也具有风格。代码可以使用相同的功能编写，但使用不同的语言功能。但是，编程样式很难量化，因此，作为这项工作的一部分，我们定义了专门针对Python的样式属性。为了构建样式的定义，我们利用层次聚类来捕获样式定义，而无需指定转换。除了定义样式外，我们还探索了预训练的代码语言模型的功能，以捕获有关代码样式的信息。为此，我们微调了预训练的代码语言模型，并在代码样式转移任务中评估了其性能。
translated by 谷歌翻译
高斯流程是许多灵活的统计和机器学习模型的关键组成部分。但是，由于需要倒转和存储完整的协方差矩阵，它们表现出立方计算的复杂性和高内存约束。为了解决这个问题，已经考虑了高斯流程专家的混合物，其中数据点被分配给独立专家，从而通过允许基于较小的局部协方差矩阵来降低复杂性。此外，高斯流程专家的混合物大大富含模型的灵活性，从而允许诸如非平稳性，异方差和不连续性等行为。在这项工作中，我们基于嵌套的蒙特卡洛采样器构建了一种新颖的推理方法，以同时推断门控网络和高斯工艺专家参数。与重要性采样相比，这大大改善了推断，尤其是在固定高斯流程不合适的情况下，同时仍然完全平行。
translated by 谷歌翻译
许多复杂的车辆系统，例如大型船舶，都包含诸如水箱之类的狭窄空间，这对于车辆的安全功能至关重要。由于有限的可及性，可见性和非结构化配置，因此人类检查此类空间尤为危险。尽管机器人提供了可行的替代方案，但它们在实现强大的自主权方面遇到了相同的挑战。在这项工作中，我们专门解决了使用基于视觉映射的系统依赖于Mahalanobis距离距离驱动的比较，在标称和在线地图之间进行局部异常识别的比较，该问题检测出限制空间内留下的异物碎片（FOD）。模拟试验显示出极高的召回率，但对于异常识别方法而言，精度较低。因此，远程人类的帮助是通过浏览离群区域的特写机器人摄像头图像来解决精度问题。进行了在线调查，以显示此援助过程的有用性。还报告了启用GPU的移动机器人平台内的物理实验，以证明FOD检测系统的可行性。
translated by 谷歌翻译
深度学习（DL）技术已被广泛用于医学图像分类。大多数基于DL的分类网络通常是层次结构化的，并通过最小化网络末尾测量的单个损耗函数而进行了优化。但是，这种单一的损失设计可能会导致优化一个特定的感兴趣价值，但无法利用中间层的信息特征，这些特征可能会受益于分类性能并降低过度拟合的风险。最近，辅助卷积神经网络（AUXCNNS）已在传统分类网络之上采用，以促进中间层的培训，以提高分类性能和鲁棒性。在这项研究中，我们提出了一个基于对抗性学习的AUXCNN，以支持对医学图像分类的深神经网络的培训。我们的AUXCNN分类框架采用了两项主要创新。首先，所提出的AUXCNN体系结构包括图像发生器和图像鉴别器，用于为医学图像分类提取更多信息图像特征，这是由生成对抗网络（GAN）的概念及其在近似目标数据分布方面令人印象深刻的能力的动机。其次，混合损失函数旨在通过合并分类网络和AUXCNN的不同目标来指导模型训练，以减少过度拟合。全面的实验研究表明，提出的模型的分类表现出色。研究了与网络相关因素对分类性能的影响。
translated by 谷歌翻译
生成摘要中的事实不一致严重限制了抽象对话摘要的实际应用。尽管通过使用预先训练的模型实现了显着进展，但在人类评估期间发现了大量的幻觉含量。预先接受的模型最常见的是微调文本摘要的跨熵损失，这可能不是最佳策略。在这项工作中，我们为带注释数据提供了事实错误的类型，以突出显示错误的类型并远离对事实的二进制了解。我们进一步提出了一种培训策略，通过新颖的对比微调，改善了摘要的事实一致性和整体素质。基于我们的语言信息的错误类型，我们设计了各个目标的不同模块化目标。具体而言，我们利用硬阴性样本具有误差，以减少事实不一致的产生。为了捕获扬声器之间的关键信息，我们还设计了特定于对话的损失。使用人类评估和自动忠实度量指标，我们表明我们的模型在对话摘要，Samsum语料库中大大降低了各种事实错误。此外，我们的模型可以推广到会议概述，AMI语料库，它产生的分数明显高于两个数据集关于单词 - 重叠度量标准的基线。
translated by 谷歌翻译
世界目前正在经历持续的传染病大流行病，该传染病是冠状病毒疾病2019（即covid-19），这是由严重的急性呼吸综合征冠状病毒2（SARS-COV-2）引起的。计算机断层扫描（CT）在评估感染的严重程度方面发挥着重要作用，并且还可用于识别这些症状和无症状的Covid-19载体。随着Covid-19患者的累积数量的激增，放射科医师越来越强调手动检查CT扫描。因此，自动化3D CT扫描识别工具的需求量高，因为手动分析对放射科医师耗时，并且它们的疲劳可能导致可能的误判。然而，由于位于不同医院的CT扫描仪的各种技术规范，CT图像的外观可能显着不同，导致许多自动图像识别方法的失败。因此，多域和多扫描仪研究的多域移位问题是不可能对可靠识别和可再现和客观诊断和预后至关重要的至关重要。在本文中，我们提出了Covid-19 CT扫描识别模型即Coronavirus信息融合和诊断网络（CIFD-NET），可以通过新的强大弱监督的学习范式有效地处理多域移位问题。与其他最先进的方法相比，我们的模型可以可靠，高效地解决CT扫描图像中不同外观的问题。
translated by 谷歌翻译
主题之间的转换是人类对话的自然组成部分。虽然已经在对话中研究了几十年来的主题过渡，但只有少数基于基础的研究，以调查主题过渡的微妙之处。因此，本研究注释了来自交换机语料库的215对话，并调查参与者和转弯/主题的主题转换，主题转换的多数，主题转换序列的变量如何相关。这项工作提出了对交换机语料库中的主题过渡的实证研究，然后在域内（ID）测试集的精度为83％的精度建模转换，10个Out-Domain}（OOD）测试集82％。设想，这项工作将有助于在开放域对话系统中模拟人类的像语如主题转换。
translated by 谷歌翻译
神经语言建模在不同下游自然语言处理（NLP）任务中取得了最先进的。一个这样的区域是开放域对话框建模，基于GPT-2的神经对话模型，例如DialogPT在单转对话中显示了有希望的性能。然而，这种（神经）对话模型被批评用于产生响应，尽管可能与先前的人类反应有关，但往往会迅速消散人类兴趣并下降进入微不足道的谈话。这种表现的一个原因是人机对话中缺乏明确的谈话策略。人类使用一系列的谈话策略，同时参与谈话，其中一种关键的社会策略是自披露（SD）。揭示一个对他人的信息的现象。社会渗透理论（SPT）提出，由于这种关系主要通过自披露，两个人之间的沟通从浅水区移动到更深层次的水平。披露有助于在参与谈话的参与者之间创造融洽关系。在本文中，在神经对话模型的推理阶段期间利用自泄露主题模型（SDTM）来重新排名响应候选，以重新排名响应候选，从而引入自泄露增强架构（SDTM）以从来自模型。
translated by 谷歌翻译
2019-04-08
目的：我们对颅颌面（CMF）骨骼进行解剖地标，而无需明确分割它们。为此，我们提出了一种新的简单而有效的深层网络体系结构，称为\ textit {关系推理网络（RRN）}，以准确地学习CMF骨骼中地标之间的本地和全球关系；具体而言，下颌骨，上颌和鼻骨。方法：拟议的RRN以端到端的方式工作，利用基于密集块单元的地标的学习关系。对于给定的少数地标作为输入，RRN将地标的过程类似于数据推出问题，而数据插图问题被认为缺少了预测的地标。结果：我们将RRN应用于从250名患者获得的锥束计算机断层扫描扫描。使用4倍的交叉验证技术，我们获得了平均均方根误差，每个地标小于2 mm。我们提出的RRN揭示了地标之间的独特关系，这些关系帮助我们推断了关于地标的信息的几个\ textit {推理}。所提出的系统即使骨骼中存在严重的病理或变形，也可以准确地识别缺失的地标性位置。结论：准确识别解剖标志是CMF手术的变形分析和手术计划的关键步骤。实现这一目标而无需明确的骨骼分割解决了基于分割方法的主要局限性，在这种方法中，分割失败（在具有严重病理或变形的骨骼中通常情况下）很容易导致地标不正确。据我们所知，这是使用深度学习发现对象的解剖学关系的第一种此类算法。
translated by 谷歌翻译